Giữa những năm 1930, quân đội Hoa Kỳ cảm thấy cần phải có một loại pháo mạnh mẽ hơn loại súng máy Browning M2 0.50 in (12,7 mm) cho nhiệm vụ chống tăng. Họ đưa ra một vài mẫu thiết kế. Khi nội chiến Tây Ban Nha nổ ra, pháo 3,7 cm Pak 36 của Đức trở nên nổi tiếng, quân đội Hoa Kỳ đã quyết định bắt chước theo mẫu này[1].

Tháng 1 năm 1937, 2 khẩu pháo 3,7 cm Pak 36 của Đức được Hoa Kỳ mua để nghiên cứu. Các mẫu thiết kế lớn bị loại vì nhiều lý do, trong đó có lý do là các nước khác cũng chỉ dùng pháo 37 mm tới 40 mm (Nhật, Thụy Điển, Đức, Liên Xô, Anh,...). Mẫu M3 37 mm được chọn.

Mẫu thử nghiệm đầu tiên được đem ra thử vào cuối năm 1937. Tới ngày 15 tháng 12 năm 1937, mẫu 37 mm gun M3 được thông qua. Những khẩu pháo đầu tiên được giao hàng năm 1940.